- Een team van de actiegroep Camoflags wilde weten of speciale ontwerpen om je gezicht te schminken, camera’s met gezichtsherkenning voor de gek kunnen houden.
- Een softwareprogramma dat werkt op basis van kunstmatige intelligentie heeft een aantal ontwerpen gemaakt die uitermate geschikt zijn voor voetbalfans.
- Het team ontdekte dat gezichtsherkenningssoftware in een aantal gevallen misleid kan worden.
- Lees ook: Zo zorg je als organisatie dat jij de baas bent over kunstmatige intelligentie en niet andersom
Wat als je je gezicht zo kunt schminken dat camera’s met gezichtsherkenning op het WK voetbal in Qatar worden misleid?
De actiegroep Camoflags zocht het antwoord op die vraag. Daarbij is gebruik gemaakt van ontwerpen voor het beschilderen van je gezicht die gegenereerd zijn met software op basis van kunstmatige intelligentie. De ontwerpen zijn gebaseerd op de make-up van de bekende hiphopgroep Insane Clown Posse: Juggalo.
Het experiment is bij uitstek geschikt voor het WK Voetbal in Qatar, omdat veel voetbalfans hun gezicht beschilderen om hun land te steunen.
Het WK voetbal in Qatar wordt om veel zaken bekritiseerd, maar ook vanwege het veiligheidsbeleid. Er zijn grote zorgen dat het toernooi een broedplaats is voor spionage en dat bezoekers via de verplichte apps op hun telefoons worden gevolgd.
Het toernooi kreeg in de aanloop ernaartoe al veel kritiek gekregen vanwege mensenrechtenschendingen. Er worden zo'n 15.000 gezichtsherkenningscamera's ingezet in en rond de WK-stadions om terroristische dreigingen en hooligans in de gaten te houden, zei de chief technology officer van het WK in augustus tegen AFP.
"Wat je hier ziet is een nieuwe standaard, een nieuwe trend in de evenementenbeveiliging. Dit is onze bijdrage vanuit Qatar aan de sportwereld. Dit is de toekomst van beveiliging van stadions", zei Niyas Abdulrahiman tegen AFP.
Tao Thomsen van Camoflags, een project van het creatieve bureau Virtue, zegt tegen Insider dat zijn team al jaren geleden met het idee kwam om gezichtsherkenning te testen met vreemde make-up. Het project concentreerde zich in eerste instantie op het misleiden van deepfake AI-technologie om te voorkomen dat de gezichten van vrouwen zouden worden gebruikt voor sexfilmpjes of andere video's zonder hun instemming.
Het idee om make-up te gebruiken om algoritmes voor gezichtsherkenning te misleiden, is niet nieuw. In 2010 was het project CV Dazzle van kunstenaar Adam Harvey een van de eerste pogingen om AI met geometrische vormen voor de gek te houden.
Er zijn ook aanwijzingen dat de Juggalo-make-up van hiphop-groep Insane Clown Posse bij uitstek geschikt is om systemen voor gezichtsherkenning te misleiden.
Het probleem met dergelijke projecten was de praktische toepassing, zegt Thomsen. Zijn team kon niet aan vrouwen vragen om zich steeds heel raar op te maken. Maar bij voetbal ligt dat anders.
"Voetbalwedstrijden zijn bij uitstek gelegenheden waarbij je vreemde patronen op je gezicht kan schilderen", zegt Thomsen. "Mensen verwachten juist dat je de kleuren van je land en je vlag op je gezicht schildert."
Om tot het ideale ontwerp te komen heeft Camoflags de kunstmatige intelligentie-software Midjourney AI gevoed met beschrijvingen waardoor er ontwerpen met een perfecte combinatie van Juggalo-make-up en verschillende vlaggen uit zouden rollen.
"We hebben het hele ontwerpproces vele malen doorlopen tot we een resultaat kregen dat door gezichtsherkenningssoftware niet werd herkend als gezicht", zegt Thomsen. "En achteraf moest er toch ook wat menselijke liefde aan te pas komen om de patronen ook nog enigszins esthetisch te maken, want generatieve AI begint op enig moment te hallucineren en gaat dan echt hele gekke dingen maken."
Het team heeft de ontwerpen op verschillende soorten gezichtsherkenningstechnologie getest en kwam tot de conclusie dat veel ontwerpen camera's konden misleiden. Welk camerasysteem momenteel in Qatar wordt gebruikt, is niet bekend.
Camoflags schat dat 80 procent van de tests succesvol was bij tien systemen die werden getest.
Camoflags heeft nog geen voetbalfans in Qatar gezien die hun ontwerpen gebruiken, maar denkt wel dat het project wel helpt om een discussie op gang te brengen over surveillance bij sportevenementen.
Volgens Thomsen hebben Britse voetbalfans al te maken gekregen met haperende gezichtsherkenning tijdens de Champions League-finale van 2017 in Cardiff.
In stadions over de hele wereld wordt gezichtsherkenningstechnologie inmiddels ingezet om mensen te identificeren die zich met criminele zaken bezighouden, gegevens te verzamelen voor adverteerders en om tickethouders bij evenementen te herkennen.
Er is bewijs dat gezichtsherkenningstechnologie minder goed werkt bij vrouwen en mensen van kleur, waardoor mensen ten onrechte gekoppeld kunnen worden aan een misdrijf.